AI засилва заплахата от дезинформация в една голяма година за изборите в световен мащаб

ЛОНДОН (AP) — Изкуственият разсъдък ускорява опасността от дезинформация за изборите в международен мащаб, като улеснява всеки със смарт телефон и подло въображение да основава подправени – само че безапелационно – наличие, ориентирано към илюзия на гласоподавателите.

Това бележи квантов скок отпреди няколко години, когато основаването на подправени фотоси, видеоклипове или аудиоклипове изискваше екипи от хора с време, механически умения и пари. Сега, употребявайки безвъзмездни и евтини услуги за генеративен изкуствен интелект от компании като Гугъл и OpenAI, всеки може да основава висококачествени „ deepfakes “ единствено с елементарна текстова подкана.

Вълна от AI deepfakes, обвързвана с избори в Европа и Азия се популяризира в обществените медии от месеци, служейки като предизвестие за повече от 50 страни, които се насочват към урните тази година.

„ Не е нужно да гледате далеко, с цел да видите някои хора... очевидно комплицирани дали нещо е действително или не “, сподели Хенри Айдер, водещ специалист по генеративен ИИ, основан в Кеймбридж, Англия.

Въпросът към този момент не е дали AI deepfakes може да повлияе на изборите, а какъв брой авторитетни ще бъдат те, сподели Айдер, който управлява консултантска компания, наречена Latent Space Advisory.

Докато президентската конкуренция в Съединени американски щати се нажежава, шефът на ФБР Кристофър Рей неотдавна предизвести за възходящата опасност, като сподели, че генеративният AI улеснява „ задграничните съперници да се ангажират със злонамерено въздействие “.

С AI deepfakes, изображението на претендента може да бъде размазано или смекчено. Гласоподавателите могат да бъдат насочвани към или надалеч от претенденти - или даже да избегнат напълно изборите. Но може би най-голямата опасност за демокрацията, споделят специалистите, е, че вълната от AI deepfakes може да подкопае доверието на обществото в това, което вижда и чува.

Някои скорошни образци за AI deepfakes включват:

— Видеоклип на прозападния президент на Молдова, който хвърля поддръжката си зад политическа партия, другарски настроена към Русия.

— Аудиоклипове на Словакия Лидерът на демократичната партия разисква подправянето на вота и повишението на цената на бирата.

— Видео на опозиционен народен представител в Бангладеш — консервативна нация с мюсюлманско болшинство — облечена в бикини.

Новостта и сложността на технологията затруднява следенето кой стои зад AI deepfakes. Експерти споделят, че държавните управления и фирмите към момента не са в положение да спрат потопа, нито се движат задоволително бързо, с цел да решат казуса.

С подобряването на технологията „ окончателните отговори за огромна част от подправеното наличие ще бъдат мъчно се намира “, сподели Айдер.

РОЗИРАНЕ НА ДОВЕРИЕТО

Някои дълбоки имитации с изкуствен интелект имат за цел да посеят подозрение по отношение на лоялността на претендентите.

В Молдова, източноевропейска страна, граничеща с Украйна, прозападният президент Мая Санду е била честа цел. Една AI deepfake, публикувана малко преди локалните избори, изобразява по какъв начин тя поддържа другарска на Русия партия и афишира проекти да подаде оставка.

Длъжностни лица в Молдова считат, че съветското държавно управление стои зад тази активност. С президентските избори тази година дълбоките имитации целят „ да подкопаят доверието в нашия избирателен развой, претенденти и институции – само че също по този начин да подкопаят доверието сред хората “, сподели Олга Роска, консултант на Санду. Руското държавно управление отхвърли да разяснява тази история.

Китай също беше упрекнат, че въоръжава генеративния AI за политически цели.

В Тайван, самоуправляващ се остров, който Китай твърди, че е собствен, AI deepfake притегли вниманието по-рано тази година, като провокира опасения за Намеса на Съединени американски щати в локалната политика.

Фалшивият клип, популяризиран в TikTok, демонстрира американския представител Роб Уитман, заместник-председател на Комитета по въоръжените сили на Камарата на представителите на Съединени американски щати, обещаващ по-силна военна поддръжка на Съединени американски щати за Тайван, в случай че претендентите на настоящата партия бъдат определени през януари.

Уитман упрекна Китайската комунистическа партия, че се пробва да се намеси в политиката на Тайван, като сподели, че употребява TikTok – китайска компания – за разпространяване на „ агитация “.

Говорител на китайския външното министерство Уанг Уенбин сподели, че неговото държавно управление не разяснява подправени видеоклипове и че се опълчва на намесата във вътрешните работи на други страни. Изборите в Тайван, акцентира той, „ са локална спекулация на Китай. “

ЗАМЪГВАНЕ НА РЕАЛНОСТТА

Дълбоките имитации единствено с аудио са изключително сложни за инспекция, тъй като за разлика от фотосите и видеоклиповете им липсват издайнически признаци за манипулирано наличие.

В Словакия, друга страна, засенчена от съветското въздействие, аудиоклипове, наподобяващи гласа на водача на демократичната партия, бяха необятно публикувани в обществените медии единствено дни преди парламентарните избори. Клиповете хипотетично го снимаха да приказва за повишение на цените на бирата и манипулиране на вота.

Разбираемо е, че гласоподавателите може да се заловен на измамата, сподели Айдер, тъй като хората са „ доста повече привикнали да съдят с очите си, в сравнение с с ушите си. “

В Съединени американски щати автоматизираните позвънявания имитиращият се президент на Съединени американски щати Джо Байдън прикани гласоподавателите в Ню Хемпшир да се въздържат от гласуването на първичните избори през януари. По-късно позвъняванията бяха проследени до политически съветник, който сподели, че се пробва да разпространява заплахите от AI deepfakes.

В по-бедните страни, където медийната просветеност изостава, даже нискокачествените AI имитации могат да бъдат ефикасни.

Такъв беше казусът предходната година в Бангладеш, където опозиционният народен представител Румиен Фархана — очевиден критик на ръководещата партия — беше подправено изобразен облечен в бикини. Вирусният видеоклип провокира отвращение в консервативната мюсюлманска нация.

„ Те имат вяра на всичко, което видят във Фейсбук “, сподели Фархана.

Експертите са изключително загрижени за идните избори в Индия, най-голямата народна власт в света и където обществените медийни платформи са плодородна почва за дезинформация.

ПРЕДИЗВИКАТЕЛСТВО КЪМ ДЕМОКРАЦИЯТА

Някои политически акции употребяват генеративен AI, с цел да укрепят имиджа на своя претендент.

В Индонезия екипът, който управлява президентската акция на Прабово Субианто, внедри просто мобилно приложение, с цел да построи по-дълбока връзка с поддръжниците в голямата островна страна. Приложението даде опция на гласоподавателите да качват фотоси и да основават генерирани от AI изображения на себе си със Subianto.

Тъй като типовете AI deepfakes се умножават, управляващите по света се борят да измислят защитни огради.

Европейският съюз към този момент изисква обществените медийни платформи да понижат риска от разпространяване на дезинформация или „ изборна операция “. Той ще наложи особено етикетиране на AI deepfakes от идната година, прекомерно късно за парламентарните избори в Европейски Съюз през юни. Все отново останалият свят е доста по-назад.

Най-големите софтуерни компании в света неотдавна — и непринудено — подписаха пакт за попречване на AI инструментите да осуетят изборите. Например, компанията, която има Instagram и Фейсбук, съобщи, че ще стартира да маркира deepfakes, които се появяват на нейните платформи.

Но deepfakes са по-трудни за преодоляване на приложения като услугата за чат Telegram, която не е подписала непринуден пакт и употребява криптирани чатове, които могат да бъдат сложни за наблюдаване.

Някои специалисти се тормозят, че напъните за преодоляване на AI deepfakes може да имат непредвидени последствия.

Добронамерените държавни управления или компании могат да стъпчат за от време на време „ доста тънката “ граница сред политическия коментар и „ нелегитимния опит за очерняне на претендент “, сподели Тим Харпър, старши политически анализатор в Центъра за народна власт и технологии във Вашингтон.

Основно генеративно ИИ службите имат правила за ограничение на политическата дезинформация. Но специалистите споделят, че остава прекомерно елементарно да се надхитрят рестриктивните мерки на платформите или да се употребяват различни услуги, които нямат същите защитни ограничения.

Дори и без неприятни планове, възходящото потребление на AI е проблематично. Много известни чатботове, задвижвани от изкуствен интелект, към момента бълват погрешна и подвеждаща информация, която заплашва да лиши гласоподавателите.

И софтуерът не е единствената опасност. Кандидатите биха могли да се опитат да излъгват гласоподавателите, като настояват, че действителни събития, представящи ги в неподходяща светлина, са създадени от AI.

„ Свят, в който всичко е съмнително – и по този начин всеки може да избере в какво да има вяра – също е свят, който е в действителност предизвикателство за една процъфтяваща народна власт “, сподели Лиза Репел, откривател в Международната фондация за изборни системи в Арлингтън, Вирджиния.

__

Суенсън заяви от Ню Йорк. Авторите на Associated Press Джулхас Алам в Дака, Бангладеш, Крутика Пати в Ню Делхи, Хуейжонг Ву в Банкок, Една Тариган в Джакарта, Индонезия, Дейк Канг в Пекин и Стивън Макграт в Букурещ, Румъния, способстваха за този отчет.

__

Асошиейтед прес получава поддръжка от няколко частни фондации, с цел да усъвършенства своето обяснително отразяване на изборите и демокрацията. Вижте повече за самодейността за народна власт на AP тук. AP е само виновен за цялото наличие.